Ông sinh năm 1966 quê quán tại thị xã Phú Thọ, tỉnh Phú Thọ[1]

Trước năm 2013, ông giữ chức vụ: Sư đoàn trưởng Sư đoàn 316.

Tháng 8 năm 2013, ông đảm nhiệm Chỉ huy trưởng Bộ chỉ huy quân sự tỉnh Vĩnh Phúc.

Tháng 5 năm 2015, bổ nhiệm làm Phó Tư lệnh kiêm Tham mưu trưởng Quân khu 2 đồng thời được thăng quân hàm Thiếu tướng.[2]

Chiều 22 tháng 6 năm 2015, Bộ Chỉ huy Quân sự tỉnh Vĩnh Phúc tổ chức Hội nghị Bàn giao nhiệm vụ Chỉ huy trưởng Bộ Chỉ huy Quân sự tỉnh. Thực hiện Quyết định của Bộ Quốc phòng, Đại tá Phùng Sĩ Tấn, nguyên Uỷ viên BTV Tỉnh uỷ, Chỉ huy trưởng Bộ Chỉ huy Quân sự tỉnh đã được Bộ Quốc phòng thăng quân hàm Thiếu tướng, bổ nhiệm giữ chức vụ Phó Tư lệnh kiêm Tham mưu trưởng Quân khu 2 và bổ nhiệm Đại tá Nguyễn Hữu Thục, Phó Chỉ huy trưởng Quân sự Bộ Chỉ huy Quân sự tỉnh giữ chức Chỉ huy trưởng Bộ Chỉ huy Quân sự tỉnh.

Tháng 08 năm 2016, giữ chức Phụ trách Tư lệnh Quân khu 2 thay cho Thiếu tướng Lê Xuân Duy mất do lâm bệnh hiểm nghèo.

Tháng 12 năm 2016, bổ nhiệm giữ chức Tư lệnh Quân khu 2.

Tháng 5 năm 2019, ông được Chủ tịch nước thăng quân hàm Trung tướng.

Ngày 15 tháng 9 năm 2019, Phùng Sĩ Tấn được Thủ tướng Chính phủ Việt Nam Nguyễn Xuân Phúc bổ nhiệm giữ chức vụ Phó Tổng tham mưu trưởng Quân đội nhân dân Việt Nam.[3]

Sáng ngày 29 tháng 9 năm 2019, dưới sự chủ trì của Đại tướng Ngô Xuân Lịch, Đảng ủy Bộ Tư lệnh Quân khu 2 tổ chức Hội nghị bàn giao chức vụ Tư lệnh Quân khu. Thực hiện Quyết định của Thủ tướng Chính phủ, Trung tướng Phùng Sĩ Tấn, Tư lệnh Quân khu được điều động, bổ nhiệm giữ chức vụ Phó Tổng tham mưu trưởng Quân đội nhân dân Việt Nam; Thiếu tướng Phạm Hồng Chương, Phó Tư lệnh, Tham mưu trưởng Quân khu được bổ nhiệm giữ chức vụ Tư lệnh Quân khu. Tại Hội nghị, trước sự chứng kiến của Bộ trưởng Bộ Quốc phòng, Trung  tướng Phùng Sĩ Tấn và Thiếu tướng Phạm Hồng Chương đã ký biên bản bàn giao chức vụ Tư lệnh Quân khu.

Từ ngày 05 tháng 11 năm 2019 đến ngày 03 tháng 02 năm 2020, ông tham gia Lớp Bồi dưỡng kiến thức mới cho cán bộ quy hoạch cấp chiến lược khóa XIII của Đảng tại Học viện Chính trị quốc gia Hồ Chí Minh.

Ngày 04 tháng 07 năm 2020, Bí thư Đảng ủy Bộ Tổng Tham mưu.